DeepWeb-Bench: A Deep Research Benchmark Demanding Massive Cross-Source Evidence and Long-Horizon Derivation
DeepWeb-Bench:需大规模跨源证据与长程推导的深度研究基准
🧭 深度研究智能体评估与诊断 ★ 深度解读
Peking University
提出一个包含矩阵任务、溯源记录和校准维度的深度研究基准,揭示检索非瓶颈、推导与校准才是主要挑战。
📌 工作参考价值(4 点)
- 电商/市场分析Agent构建:可复用矩阵任务格式(实体×分析维度)和四能力(检索、推导、推理、校准)设计,用于自动生成竞品报告或行业分析。
- 信息抽取可靠性:引入源溯源等级(T1-T4)和跨源一致性检查,可作为电商知识库或RAG系统的证据可信度评估模板,减少幻觉。
- 工程实现启发:发现检索并非瓶颈,应重点投入多步数值组合与校准逻辑,例如在推荐系统的归因分析或财务推演Agent中显式要求推导步骤。
- 领域专长差异:模型在不同品类表现差异大(相关仅0.61),提示为细分场景(如新能源车、芯片)定制微调或专用提示链,而非通用方案。